Wie heeft er Baat bij Bots?

Afgelopen weken bleek dat de digitaal geplunderde klanten van Bunq Bank niemand van de Bank konden bellen om hulp. Op de website van Bunq was alleen interactie met een chatbot mogelijk. Wie heeft er eigenlijk baat bij zulke chatbots? De klant of het bedrijf? En wat hebben klanten überhaupt aan de uitspraken van zulke chatbots? Meer helderheid en zekerheid is nodig, stelt hoogleraar computerbeveiliging en privacy, Bart Jacobs

Chatbots

Artificiële intelligentie (AI) heeft een stadium bereikt dat menselijke spraak in real-time redelijk goed omgezet kan worden in tekst en dat op basis daarvan, ook in real-time, reacties gegenereerd kunnen worden, bijvoorbeeld via ChatGPT. Deze indrukwekkende technologie is onderdeel geworden van spraakassistenten, zoals Apple’s Siri, Google’s Assistent, en Amazon’s Alexa. Ook wordt de technologie steeds vaker geïntegreerd in websites, waar bezoekers met een chatbot kunnen praten – of via een tekstveld vragen kunnen stellen. Deze chatbots wekken de indruk dat je als bezoeker van de website met een echt persoon contact hebt, terwijl je in feite met een computer interacteert.

De meer geavanceerde chatbots maken gebruik van statistische technieken om te leren en te voorspellen, zodat mede op basis van het gedrag en een profiel van de vraagsteller antwoorden gegenereerd kunnen worden. Dit kan de persoonlijke ervaring versterken.

Chatbots worden meer en meer ingevoerd ter vervanging van telefonisch contact met een helpdeskmedewerker. Verlaging van de kosten is daarbij een belangrijke drijfveer. Maar ook personeelstekorten spelen een rol. Met chatbots kan makkelijker meebewogen worden met groeiende of afnemende vraag en kunnen klanten sneller geholpen worden. Mogelijk werken chatbots zelfs drempelverlagend, voor mensen die verlegen zijn of niet graag bellen.

Wie is verantwoordelijk voor de chatbot?

Volgens de aanstaande Europese AI Act moet aan de bezoeker van een website expliciet duidelijk gemaakt worden dat er bij een chatbotgesprek contact plaatsvindt met een computer en niet met een mens. Dat schept enige duidelijkheid. Maar wie is er eigenlijk verantwoordelijk voor de antwoorden van een chatbot? Die verantwoordelijkheden liggen bij de organisatie dat de bot op de eigen website aanbiedt. Eerder dit jaar werd de luchtvaartmaatschappij Air Canada door de rechter veroordeeld tot een schadevergoeding aan een klant die van de chatbot op de webpagina van Air Canada het onterechte advies had gekregen om een duur ticket te kopen. De luchtvaartmaatschappij had geprobeerd eronder uit te komen door de chatbot te omschrijven als: a separate legal entity that is responsible for its own actions. Daar kwamen ze echter niet mee weg: de aanbieder van de chatbot draagt verantwoordelijkheid voor de uitspraken.

Onderteken het gesprek

In de genoemde Canadese zaak kon de benadeelde klant een screenshot tonen van het onterechte advies. Het ging hier om een chatbot die antwoordde met tekst, niet met spraak. Moeten wij als klanten voortaan allemaal screenshots gaan maken en gesprekken met chatbots zelf op gaan nemen, alleen maar om bewijs te hebben van wat ons aangeraden is? En hoe hard is dat opgenomen bewijs eigenlijk? Gesprekken kunnen makkelijk zelf gegenereerd worden.

Authenticiteit van informatie

Ik pleit daarom voor het volgende: organisaties die chatbots voor klantcontact aanbieden worden verplicht om daarbij de volgende functionaliteit toe te voegen. Er moet een simpele knop zijn waarmee klanten aan het eind van het gesprek een uitdraai kunnen downloaden van het gevoerde gesprek, in tekstuele vorm, zeg pdf, voorzien van een digitale handtekening van de betreffende organisatie. Die handtekening garandeert de authenticiteit van de informatie, en geeft zekerheid over de herkomst (de organisatie) en over de inhoud. De handtekening garandeert de integriteit van de inhoud: als iemand in de tekst ook maar een letter verandert, is de digitale handtekening niet langer geldig. Deze verplichting geeft beide partijen zekerheid over de interactie die plaatsgevonden heeft.

De digitale handtekening moet ‘deugdelijk’ zijn, in de zin dat de organisatie er wettelijk mee gebonden is en de klant er een wettelijk bruikbaar bewijsstuk mee in handen krijgt. Juridisch verandert er niks met deze verplichting – de bot-aanbieder is immers sowieso verantwoordelijk – alleen worden de bestaande rechten en plichten met passende technische middelen ondersteund. Een verplichte ondertekende gesprekslog kan aarzelende gebruikers het vertrouwen geven om chatbots juist wel te gebruiken – waarmee de aanbieders kun kosten verder kunnen verlagen.

Fabulerende bots

Er komen met grote regelmaat verhalen in het nieuws van AI-systemen die onzinnige uitspraken doen. Deze systemen zijn gebaseerd op statistische correlaties, niet op begrip van de materie waar het over gaat. Daardoor gaan zaken nog wel eens mis. Dit verkopen van onzin heet fabuleren. De verplichting voor organisaties om hun klanten bewijzen in handen te geven van de gesprekken die met hun bots hebben plaatsgevonden leidt hopelijk tot meer zorgvuldigheid bij de ontwikkeling, het testen, en het gebruik van chatbots. Dit alles om gefabuleer te voorkomen, waar de klant niet op zit te wachten en waar het bedrijf plotseling aan gebonden is. Met zulke verbeteringen zijn we met z’n allen gebaat. De log-verplichting dwingt organisaties om kleur te bekennen: zetten ze de chatbots alleen in om kosten te besparen en om klanten af te schepen, of zetten ze bots in om hun klanten werkelijk te helpen, in lijn met de zorgplicht die op hen rust? Het ontbreken van mechanismen voor online authenticiteit en voor bijbehorende aansprakelijkheid is een algemenere plaag van onze tijd die in het geval van chatbots relatief makkelijk geadresseerd kan worden.

Lees ook:

• Waarom Chatbots een gevaar zijn voor de democratie – iBestuur
• HR Innovatie binnen de Rabobank – iBestuur
• ‘Digitalisering klantenservices, waar ligt de grens?’ – iBestuur